Để chuẩn bị cho Hội chợ thế giới khai mạc năm 1900 tại Paris, chính quyền Paris quyết định xây dựng một bảo tàng nghệ thuật lấy tên là "Grand Palais des Beaux-Arts" (Cung nghệ thuật) trên nền của Palais de l'Industrie (Cung công nghiệp) được xây từ năm 1855.[2] Công trình mới được xây dựng ngoài mục đích chuẩn bị cho Hội chợ thế giới, nó còn là tòa nhà hoàn thiện cho quy hoạch của đại lộ nối từ Điện Les Invalides đến Champs-Élysées và Điện Élysée. Ngày 22 tháng 4 năm 1896 một cuộc thi thiết kế được mở ra để tìm bản vẽ cho công trình mới, đây là cuộc thi chỉ dành cho kiến trúc sư người Pháp. Những người chiến thắng cuối cùng của cuộc thi này là các kiến trúc sư Henri Deglane, Albert Louvet, Albert-Félix-Théophile Thomas và Charles Girault, họ được phân công cụ thể như sau:

• Henri Deglane phụ trách nhánh Bắc và Nam của trục nhà chính, các hành lang và trang trí bên ngoài, đặc biệt là trang trí phần cửa chính và hàng cột ở mặt chính của tòa nhà (giáp đại lộ Nicolas II, nay là đại lộ Winston Churchill).
• Albert Louvet phụ trách phần nhà trung tâm, trong đó có Sảnh danh dự (Salon d'honneur), từ năm 1937 phần nhà này được dùng làm Palais de la Découverte (Cung khám phá), Louvet cũng hợp tác với Deglane trong việc xây dựng hành lang và trang trí tường của sảnh ngang.
• Albert Thomas phụ trách việc xây dựng của nhánh Tây thuộc về Cung Antin (Palais d'Antin, nay cũng thuộc Palais de la Découverte) và phần mặt ngoài của Grand Palais giáp đại lộ Antin (nay là đại lộ Franklin D. Roosevelt).
• Charles Girault phụ trách phối hợp toàn bộ công trình, cùng thời gian ông này cũng phải chịu trách nhiệm xây dựng Petit Palais (nay là Bảo tàng Mỹ thuật Paris) ở đối diện với Grand Palais.

Grand Palais được khánh thành ngày 1 tháng 5 năm 1900 trong một buổi lễ có sự góp mặt của tổng thống Pháp Émile Loubet và chủ tịch ủy ban Hội chợ thế giới Pháp Alfred Picard.

Trong thời gian chiến tranh thế giới thứ nhất, Grand Palais được sử dụng làm doanh trại cho các đội quân thuộc địa của Pháp trước khi họ ra mặt trận, cung điện cũng được sử dụng làm bệnh viện để giải tỏa lượng thương binh quá lớn tập trung ở các bệnh viện Paris khi đó. Sau khi chiến tranh thế giới thứ hai nổ ra, Paris bị quân đội Đức Quốc xã chiếm đóng, sảnh lớn của Grand Palais bị trưng dụng làm kho phương tiện quân sự. Tháng 8 năm 1944 gian giữa của tòa nhà bị đánh bom gây cháy, tuy nhiên thiệt hại không lớn và Grand Palais được bảo vệ gần như toàn ven cho đến hết chiến tranh. Tuy nhiên do nhiều phần xây dựng khác nhau, đến cuối thế kỷ 20 cung điện bắt đầu có dấu hiệu xuống cấp, năm 1993 một đoạn ghép đinh tán đã rơi từ độ cao 35 m xuống ngay một triển lãm thiết kế đang diễn ra trong tòa nhà. Grand Palais được tiến hành tu sửa lớn từ tháng 11 năm 2001 đến hết năm 2007 bao gồm gia cố móng, tường và phần mái, toàn bộ dự án này có kinh phí lên tới 101.36 triệu euro do chính phủ Pháp cung cấp thông qua Bộ Văn hóa.